Harness-1: Reinforcement Learning for Search Agents with State-Externalizing Harnesses
Harness-1:通过状态外化 harness 对搜索智能体进行强化学习
🧭 搜索智能体 · 状态外化 harness ★ 深度解读
University of Illinois at Urbana-Champaign · UC Berkeley · Chroma
将搜索中的机械簿记卸载到环境端状态,使 20B 策略 RL 后平均召回达 0.730,比最佳开源 subagent 高 +11.4 点
📌 工作参考价值(4 点)
- 电商搜索/推荐的多步检索中,可设计类似的工作记忆状态机(候选池、重要性标记、证据图、验证记录),将“记住已看文档、过滤重复、跟踪约束”等记账任务由环境维护,让策略模型聚焦语义决策,降低小模型 RL 的优化难度。
- Warm-start curation(自动从第一次成功搜索结果中 seed top-8 为 fair 重要性)解决了空 curated set 带来的早期奖励无区分度问题,可迁移到对话式的商品搜索、主动推荐场景,避免 RL 探索时的全零 reward。
- 多样性奖励(tool diversity bonus)防止策略坍缩到反复搜索的捷径,强制 agent 使用验证、阅读、curate 等多种行动,提升最终精排质量。这在电商 Agent 做多轮“搜索-浏览-比较-加购”决策时特别有用。
- 紧凑的派生状态渲染(BM25 句子压缩、证据图、重要性分级)和两级去重(chunk-ID + MinHash 指纹)有效控制上下文预算,让策略在长序列多轮交互中保持对关键证据的可见性,适合需要融合多篇商品评论、比价等长上下文场景。